#Decision Model

3 篇

SearchJev: A Fast and Calibrated System-1 Model for Search Agents

SearchJev：面向搜索 Agent 的快速且校准良好的 System-1 决策模型

🧭 Agent 双系统搜索决策加速与校准 ★ 深度解读

Huawei Technologies Co., Ltd. · Leiden University

将搜索 Agent 中的短决策与 System-2 生成分离，用 schema-conditioned logits 直接输出校准概率，实现 5.2-5.3 倍决策加速并提升端到端答案准确率

📌 工作参考价值（4 点）

把搜索/推荐链路中频繁的短判断（相关性、query 改写是否等价、意图分类、证据充分性、next action）从 LLM 自回归生成中拆出来，用同一个轻量模型基于 schema-conditioned first-token logits 直接做分类/打分，避免 JSON 解码，可显著降低线上延迟。
借鉴 SLCD：对不确定标注用 soft-label，训练时混合 cross-entropy + Brier loss，并按输出类型（Choice/Score/Noul）做 temperature calibration；这能提供更可靠的置信度，适合做置信度 gate、拒识或降级。
双系统架构值得迁移：System 1 出低延迟决策 + 置信度阈值，不置信时回退到 System 2（大模型）处理；在电商/广告的召回粗排、query 改写、相关性过滤等场景可以平衡成本与效果。
将异构标注数据统一成 state-schema 格式训练一个多任务决策模型，用 LoRA 微调小模型即可覆盖多种决策类型，降低多模型维护成本；对 unordered options 做 permute 可减少位置偏差。

Agent | 2026-10-04 | cs.IR | score 9/10

LLM2Jev：LLM 已是 Jev 风格决策模型——何时及如何微调

🧭 LLM 决策建模与结构化输出

Microsoft

提出 LLM2Jev 框架，直接利用括号数字标识符的 next-token 概率提取校准决策，无需训练即可让 4B LLM 匹配专用 Jev 模型

📌 工作参考价值（4 点）

电商/广告中的意图路由、分类、证据校验等决策任务，可直接用 LLM 输出括号数字标识符（如 [1]、[2]），从 next-token 概率读取每个选项的概率分布，完全跳过文本生成与解析，降低延迟并消除格式错误风险。
面对任意数量的候选选项（如商品类目、投放策略），无需预先确定选项个数，框架天然支持动态选项集，适合线上 A/B 测试和策略切换。
对于弱基座模型或高难度多选项任务，用 LoRA + 树因子化 listwise loss + KL 锚定微调可稳定提升决策准确率，同时保持对话/文本生成能力不退化；强基座模型则可直接零样本使用，节省训练成本。
多模态决策支持：可直接对图像输入（如商品图）做决策，无需额外适配，适合电商图文混合场景。

LLM | 2026-10-01 | cs.CL | score 7/10

记忆系统 Mnemon：原始记录、快速判断、慢思考

🧭 Agent 记忆系统 · System 1/2 分工 ★ 深度解读

用 System 1 决策模型在读取时批量判断原始记录，后台只建索引，以 <4k tokens 上下文在 LoCoMo 达 91.7%

📌 工作参考价值（4 点）

在电商推荐 Agent 中，保留用户原始行为/对话记录，不在写入时抽取事实或建图谱；后台定期构建 topic timelines（用户关注点变化）、value histories（偏好值变化，如价格阈值、品类偏好）、standing instructions（用户明确要求，如“不要推已购买”），并链接回原始记录。读取时用小型决策模型批量判断哪些记录与当前请求相关、是否过期、满足哪个需求，只把少量相关记录喂给 LLM，大幅降低回答上下文和成本。
将记忆读取拆成 System 1/System 2：System 1 用廉价决策模型对候选记录做独立 yes/no 判断（是否相关、是否过期、满足哪个信息需求），System 2 仅写搜索查询、命名需求、生成回答。可以借鉴到推荐 Agent 的检索/过滤架构：用轻量模型粗筛候选池，LLM 只做高价值规划和生成，避免 LLM 逐条判断候选的延迟和成本。
引入固定预算和显式规则：view 大小、pool 大小、循环轮数、判断阈值等。规则只依赖判断顺序和二分结果，不依赖校准，因此可以替换决策模型而无需重新调参。工程上可让系统在长历史上保持近似恒定成本（从 100K 到 10M tokens 成本仅增长 1.11 倍）。
评估时使用有效成本指数 ECI = (1-accuracy) + context/full_context_cost，统一衡量错误和上下文代价，适合线上 Agent 对比模型/记忆策略，避免只优化准确率而忽略成本。

Agent | 2026-09-28 | cs.IR | score 8/10